FPGA火力支援 微軟發表Project Brainwave

作者: 黃繼寬
2017 年 08 月 24 日

軟體業者為了強化人工智慧演算法的執行效率,紛紛跨足硬體設計。繼Google、Facebook之後,微軟(Microsoft)近日也發表了自家的Project Brainwave平台。該平台以英特爾(Intel)提供的Stratix 10現場可編程閘陣列(FPGA)為基礎,除了內建深度神經網路(DNN)加速引擎外,在軟體堆疊方面,還可支援Google的Tensorflow、微軟自家的Cognitive Toolkit等深度學習框架。

微軟傑出工程師Doug Burger指出,在硬體層面,Project Brainwave是一個以FPGA為基礎的高性能DNN處理平台。微軟已經將高性能FPGA應用在自家的資料中心多年,讓該公司可以為DNN運算提供硬體微服務(Hardware Microservices),亦即將DNN映射到遠端的大量FPGA上,透過呼叫伺服器的方式來執行。這個系統架構對於降低延遲、提高資料吞吐量有很大的幫助,因為外部輸入的需求不須透過CPU處理,而FPGA可以用很快的速度來回應外部提出的需求。

其次,Project Brainwave的FPGA上合成(Synthesize)了軟式DNN處理單元(DPU)。雖然許多公司都採取硬體線路的方式來實作DPU,以便實現最高的運算效能,但這種方法也令DNN的靈活性受到限制,例如資料型態、運算子(Operator)的選擇,都會受限於晶片本身的設計。軟式DNN則沒有這個問題,其可支援的資料型態是在合成的時候決定的。Project Brainwave所使用的FPGA結合了硬體數位訊號處理單元與可合成的邏輯,提供比純ASIC更大量、更最佳化的功能單元。這個設計架構有兩大好處,一是允許高度客製化、窄精度的資料型態,可提高性能又不損失模型的精準性,二是可以在幾周內支援新的演算法。整體來說,以FPGA為基礎的DPU,在性能上並不遜於以硬體實作的DPU,甚至有過之而無不及。

第三,Project Brainwave搭載了可支援眾多主流深度學習框架的軟體堆疊,目前已可支援微軟自家的Cognitive Toolkit以及Google的Tensorflow,未來還將支援更多深度學習框架。

微軟的Project Brainwave是以英特爾的14奈米Stratix 10 FPGA作為核心晶片。

標籤
相關文章

雜訊挑戰劇增 USB 3.0測試角色吃重

2011 年 08 月 09 日

英特爾、高通合力定義 MEMS效能標準出爐

2013 年 05 月 07 日

英特爾攻勢奏效 x86平板中國市場遍地開花

2014 年 04 月 18 日

整合度大躍進 Intel推出微型3G數據機

2014 年 09 月 05 日

瞄準車用晶片商機 英特爾擬在歐投資800億歐元擴產

2021 年 09 月 09 日

AI晶片熱情更勝火 液冷技術百家爭鳴

2024 年 05 月 24 日
前一篇
ADAS晶片可靠度攸關生死 奈米製程大舉採用仿真技術
下一篇
Littelfuse推出80A離散型雙向瞬態抑制二極體